最近,神经网络模型的解释引起了相当大的研究关注。在计算机Vi-Sion中,CAM(类激活图)基于基于cam的方法和LRP(层相关性传播)方法是两种common解释方法。但是,由于大多数基于CAM的方法只能产生全球权重,因此它们只能在深层进行粗粒的解释。LRP及其变体可以生成细粒度的解释。但是解释的忠诚太低了。为了应对这些挑战,在本文中,我们提出了FG-CAM(细粒度凸轮),该cam扩展了基于CAM的方法,以产生高粒度和高信仰。fg-cam使用具有分辨率差异的两个特征图层之间的关系,以逐渐增加解释分辨率,同时找到贡献的像素并滤除不贡献的像素。我们的方法不仅可以解决基于CAM的方法的短相处,而不会改变其特征,而且还产生了比LRP及其变体更高的忠诚度的细粒度解释。我们还以denoising呈现FG-CAM,这是FG-CAM的一种变体,能够产生较少的嘈杂解释,而忠实的解释几乎没有变化。实验结果表明,FG-CAM的性能几乎不受解释分辨率的影响。fg-cam在浅层和中间层中均显着优于基于CAM的方法,并且在输入层中均优于LRP及其变量。我们的代码可在https://github.com/dongmo-qcq/fg-cam上找到。
主要关键词